La historia de Skinny Puppy comienza en el verano de 1983, cuando Cevin Key (sintetizador y percusiones) y Nivek Ogre (voces) descubren que su atracción por la música extraña y mutante es reciproca y unen sus fuerzas para grabar la maqueta Back & Forth. Este cassette, ahora un tesoro buscado por los fans incondicionales del grupo, llamó la atención de la discográfica "Nettwerk Productions". Asi, Skinny Puppy graban con este sello el E.P. Remission que les permitio salir de las sombras para alcanzar una tímida notoriedad. La combinación explosiva de teclados con ritmos infernales y enigmáticas voces sorprendieron y trastornaron los oidos por toda Norte América y más tarde por toda europa, gracias a la licencia de "Play it Again Sam Records" desde Bruselas.
su álbum debút, «Bites» de 1985, año en el que Wilhelm Schroeder (bajo, sintetizadores) se unió a la banda. Un par de años más tarde, el mismo la abandonó, y Dwayne Goettel fue su reemplazo. Durante los siguientes años, la banda siguió editando discos y experimentando con diversos sonidos, adquiriendo influencias más pesadas en «Rabies» de 1989, donde participó Al Jourgensen de los legendarios Ministry.